Nvidia 的GeForce RTX 4090是最好的顯示卡之一，其價格在亞洲市場飆升，因為人們願意花大筆現金購買它們，然後以更高的價格在中國或香港轉售。這種現像是由於美國禁止向中國和許多其他國家運送GeForce RTX 4090 的出口管製而引發的。根據《日經新聞》報道，部分亞洲國家的GeForce RTX 4090 主機板價格因此飆升了60% 。

Nvidia GeForce RTX 4090 的製造商建議零售價為1,599 美元，相當昂貴。但台灣光華數位廣場電子市場和韓國龍山電子市場的買家“打開裝滿現金的腰包”，以超過2,500 美元的價格購買這些卡，以便隨後以三倍的價格在中國或香港轉售。他們在新加坡和越南也這樣做。

一位店主告訴《日經新聞》：“他們購買這些產品，然後以更高的價格轉售到面臨美國限制的地區。” “他們可以把它們帶到香港或其他中國城市。”

Nvidia GeForce RTX 4090 顯示卡的搶購導致其在亞洲的價格上漲和稀缺。由於需求過剩，台北光華市場的零售商只將GeForce RTX 4090 附加主機板作為完整遊戲系統的一部分進行銷售。但此舉並沒有阻止買家，因為中國買家開始購買整個遊戲電腦系統，然後將其拆解為難以取得的顯示卡。這種策略凸顯了儘管成本高昂，但個人願意採取極端措施來獲取這些AIB。

一位來自台北的零售商告訴《日經新聞》，有些買家執意要入手GeForce RTX 4090 顯示卡，以至於購買了20 多台完整的桌上型電腦，不是為了電腦本身，而是為了裡面的主機板。據零售商稱，這些買家不介意為每個系統支付4,500 美元，因為他們相信他們仍然可以出售這些顯示卡以獲得豐厚的利潤。

去年11 月，美國政府禁止向中國香港和其他一些國家和地區運送Nvidia 的GeForce RTX 4090 和眾多其他高性能GPU，以規避中國人工智慧(AI) 應用的發展。

事實上，一位不願透露姓名的香港人工智慧新創公司聯合創始人告訴《日經新聞》，出口限制嚴重阻礙了他們公司的進步。透過合法管道取得AI GPU 變得過於危險，迫使該公司透過中介機構進行採購。

儘管有禁令，但在中國大陸的許多地方仍然可以購買到GeForce RTX 4090 顯示卡，因此中間商賺取了巨額利潤。

「目前[GeForce RTX 4090] 沒有庫存，但可能需要大約三到四天的時間才能到達，」中國深圳華強北市場的一位供應商告訴《日經新聞》。

全球晶片製造業巨頭英偉達（輝達）公司推出了專為中國遊戲界設計的旗艦圖形晶片的改進版本。這項戰略措施是為了回應美國政府對可在中國商業化的技術類型實施的新監管限制。 GTX 4090 D晶片的調整版本現已在Nvidia中國網站上出售，與其他地方提供的原始4090型號相比，其配備的處理核心數量減少了約10%。

對圖形晶片所做的修改是旨在限制向中國出口先進計算晶片的監管行動的直接後果。英偉達針對中國市場調整其產品，體現了貿易緊張局勢和出口管制對全球科技行業的更廣泛影響，特別是在美國出於國家安全目的而渴望維持技術優勢的行業。

該變體的官方名稱為RTX 4090D，它取代了因中國進口限製而遇到障礙的RTX 4090卡。儘管核心數量和Tensor 核心數量有所減少，RTX 4090D保留了24GB GDDR6X顯存，與原始RTX 4090型號相同。預設熱設計功耗(TDP) 也已縮減至425W。雖然價格仍為12,999元人民幣，但新發布的顯示卡取消了工廠超頻選項。從提供的數據看到，Nvidia中國網站上出售的GTX 4090 D晶片版本的處理核心比在其他國家出售的4090少了約10%。

RTX 4090D預計將在大多數遊戲工作負載中提供相當的效能，除非嚴重依賴Tensor核心的任務（例如DLSS）。雖然較慢的Nvidia堅稱其性能遠低於您的想像。

「在採用光線追蹤和深度學習超級取樣(DLSS) 的4K 遊戲中，GeForce RTX 4090D比GeForce RTX 4090慢約5%，而且它的運作方式與其他所有GeForce GPU一樣，最終用戶可以超頻。」英偉達發言人在一封電子郵件中表示。

Nvidia發言人在一封電子郵件中表示：“GeForce RTX 4090 D的設計符合美國政府的出口管制，並且僅在中國零售。”

執行長黃仁勳表示，他將為中國生產市場領先產品的版本，這些產品符合拜登政府對中國出口的規定。美國試圖減緩中國人工智慧能力的進步，正在限制對該市場的專用晶片的准入。

該公司表示，在開發圖形產品時與美國政府進行了“廣泛接觸”，該產品將於一月份上市。

英偉達表示，與其他地方銷售的4090相比，中國型號的可用於加速人工智慧工作負載的處理子單元也更少。

這並不是英偉達第一次為了遵守美國出口管製而削弱其顯示卡的表現。 2022年底，在中國限制人工智慧加速器銷售的浪潮之後，這家美國巨頭降低了其廣受歡迎的A100設備的互連速度，並將其重新推出為A800。緊接著該卡推出的是H100的新版本，預計稱為H800。

十月份宣布的新一輪出口限制讓英偉達再次交付專為中國市場設計的晶片。 L2、L20和H20的困境就在華盛頓的表現上限下跳舞。

英偉達的舉動很快就引起了美國商務部長吉娜·雷蒙多的注意，她警告晶片製造商不要測試這些禁令。 「我告訴你，如果你圍繞特定的切割線重新設計晶片，使他們能夠進行人工智慧，我將在第二天控制它，」她在12月初的一個論壇上說道。

雷蒙多後來告訴路透社，商務部正在與英偉達密切合作，以確保對美國國家安全構成威脅的GPU和人工智慧加速器不會出售給中國，但這家晶片公司可以而且應該能夠在中國開展業務。(半導體產業觀察)

可以肯定的是，在接下來的幾個月裡，使用Nvidia GPU 的長隊可能會變得更短。

過去幾個月，許多大大小小的公司都報告收到了數千塊H100 GPU。

這樣，在雲端使用H100 GPU 的排隊時間可能會縮短。資料中心供應商和前比特幣挖礦公司正在開設具有H100 叢集的資料中心。這些公司承諾以大型雲端供應商成本的一小部分提供H100 GPU 運算，而大型雲端供應商則對H100 GPU 加速的虛擬機器收取高價。

亞馬遜最近宣布，將在其網站上對H100 GPU 進行1 至14 天的預訂，以應對未來需求的激增。

供應正常化也有助於企業將人工智慧計畫付諸實施。HPCwire 就短缺問題是否已解決聯繫了Nvidia，但該公司拒絕發表評論。

幾個月前，特斯拉執行長馬斯克注意到GPU 短缺，並等待接收Nvidia GPU 以提高人工智慧能力。馬斯克表示，特斯拉啟動了由10,000 個H100 GPU 組成的集群，並且部署速度極快。

「訓練是全自動駕駛和車輛自主進展的根本限制因素，」馬斯克在上個月的財報電話會議上表示。

Nvidia 一直在對H100 進行配給，並根據AI 模型的規模、可用基礎設施和客戶概況來評估客戶。這家晶片製造商優先考慮各行業財力雄厚的客戶。Nvidia 也選擇了能夠積極反映其GPU 最佳利用的客戶。特斯拉符合頂級客戶的形象，擁有明確的人工智慧模式。

Nvidia 也提供了關於客戶何時收到H100 GPU 的更清晰的時間表。資料中心供應商Applied Digital 購買了34,000 個H100 GPU，其中26,000 個將在4 月部署，此後還會再部署8,000 個。

Applied Digital 於9 月開始收到5 月下達的GPU 訂單。9 月份，它收到了1,024 個GPU，執行長Wes Cummins 估計這個數字在10 月翻了一番，並且「11 月、12 月以及1 月這個數字可能會顯著增加」。

該公司還在北達科他州埃倫代爾破土動工新建一個高效能運算資料中心，該資料中心可在運算叢集中託管50,000 個Nvidia H100 SXM 級GPU。

英偉達（輝達）也向能夠簽署採購訂單的小型客戶提供服務。

Iris Energy 正在創建人工智慧運算基礎設施，支付了約1000 萬美元購買了248 個Nvidia GPU。預計在未來幾個月內交付。該公司在上個月向美國證券交易委員會提交的文件中表示。

H100 將為Iris Energy 啟動一項新的人工智慧業務，該公司早些時候已將自己定位為加密貨幣礦工。這家澳洲公司看到了更大的生成人工智慧市場，並正在改造其位於美國和加拿大的比特幣挖礦資料中心，以進行人工智慧運算。

由億萬富翁Jed McCaleb 資助的新創公司Voltage Park 收到了大量24,000 個Nvidia H100 GPU，這些GPU 分佈在華盛頓州、德克薩斯州和維吉尼亞州的集群中。

「訂單是在2023 年4 月左右下的。團隊很清楚……緊要關頭即將到來，因此他們提前下了一份非常大的訂單，以保證有足夠的供應，」Voltage Park 的Eric Park 在一封電子郵件中表示。

這些GPU 已經為人工智慧公司Imbue 提供服務，該公司似乎與Voltage Park 有著密切的聯繫。Nvidia 和Jed McCaleb 創立的Astera Institute 都是Imbue 的投資者之一。

Voltage Park 還旨在透過支援名為FLOP Auction 的計劃，為客戶提供廉價的H100 GPU 運算能力。它就像eBay 在H100 上進行人工智慧運算一樣，出價最高者獲得伺服器時間。

Park 表示：“這是一個早期項目，旨在研究進入Voltage Park H100 集群的拍賣機制。我們的想法是，通過拍賣時間而不是合同，這有助於保證市場價格和透明的流程。”

目前每小時H100 集群FLOP 拍賣的中標價格比Google Cloud 上2017 年發布的V100 的每小時價格便宜。勝利取決於合約規模和承諾。

H100 熱潮也為電腦硬體的價值賦予了全新的意義，GPU 成為新業務的抵押品。

Crusoe Energy 是一家前加密貨幣礦商，以20,000 台H100 作為抵押，獲得了2 億美元的融資。同樣，GPU 計算提供商CoreWeave 也以H100 作為抵押獲得了價值24 億美元的融資。

Crusoe 的GPU 容量將於明年第一季投入使用。該公司已經提供了在較舊的Nvidia GPU 上運行的叢集。

甚至一家cannabis公司也加入了H100 熱潮。總部位於科羅拉多州的American Cannabis 公司已同意與HyperScale Nexus Holding Corp. 合併，該公司希望圍繞Nvidia 的H100 GPU 創建業務。

將記憶體和晶片結合在一起的CoWoS 封裝的短缺加劇了GPU 的短缺。英偉達正在幫助台積電尋找新的合作夥伴和供應商來解決短缺問題。

展望未來，其他因素可能會意外地結束短缺並加速Nvidia 的GPU 出貨量。

美國政府最近對英偉達向中國公司出口A800、H800和L40S系列GPU實施了限制。這可以打開CoWoS 封裝並釋放製造能力，為美國和其他市場生產更多H100 晶片。

Nvidia 並沒有直接向客戶提供GPU，而是透過雲端供應商租用GPU 來擴展H100 容量。雲端提供者部署的GPU 伺服器是DGX 參考模型的複製品，其中包含8 個H100 GPU。

市場研究公司表示：「這項轉變也可能激發Nvidia 擁護以A100 或H100 AI 伺服器為基礎的DGX 雲端訂閱和租賃模式的熱情，甚至擴大其視野以納入更多樣化的雲端服務（L40S 等）。 」 TrendForce 在10 月發布的研究報告中表示。

Oracle 在9 月宣布全面推出Nvidia H100 裸機運算服務。

谷歌於8 月下旬宣布推出A3 超級計算機，該計算機可根據計算需求容納多達26,000 個H100 GPU。

微軟財務長Amy Hood 在最近的財報電話會議上表示，微軟也提高了GPU 容量，從而更好地利用其人工智慧服務。

Azure 雲端服務是圍繞著Nvidia 的GPU 建構的。微軟宣稱其Azure 超級電腦是世界上最快的伺服器系統之一。

該公司可能會在11 月21 日的下一次財報電話會議上提供GPU 供應的最新資訊。

儘管對H100 的需求炙手可熱，Nvidia 最近還是宣布了更新的路線圖，計劃在未來三年推出新的GPU。

107000 個挖礦GPU 可，供出租用於AI 工作負載

加密貨幣熱潮崩潰後，許多加密農場留下了大量未使用的GPU。其中一些公司設法為他們的GPU 找到其他用途，但仍有數千家公司閒置。Io.net 開發了一個分散式網絡，可以匯集數十萬個GPU 並將它們用於人工智慧應用程式——顯然目前有107,000 個GPU 處於等待名單上。

Io.net開發了一個去中心化實體基礎設施網路（DePIN），支援來自不同地理位置的資料中心和加密貨幣礦工的GPU運算能力的池化和叢集化。該網路旨在透過聚合世界各地未充分利用的GPU 來為人工智慧和機器學習工作負載提供資源。為了吸引GPU 所有者，Io.net 推出了70 萬美元的激勵計劃，鼓勵他們為網路貢獻資源。

雖然Io.net DePIN 的主要想法是聚合資料中心和各個加密貨幣礦工未使用的GPU 運算資源，但該公司也與專門從事遠端渲染的Render 網路合作，以獲得對額外GPU 的存取權。

Io.net 並不是當今唯一的GPU 資源DePIN，但該公司表示，它實際上可以在幾分鐘內聚集來自不同地理位置的GPU 資源，這與一些競爭對手不同。

Io.net 營運長 Tory Green 在接受Cointelegraph 採訪時表示：「問題在於它們並沒有真正叢集。」「它們主要是單一實例，雖然他們的網站上確實有叢集選項，但銷售人員很可能會調用所有不同的數據中心來查看可用的內容。”

就功能而言，最接近的競爭對手是針對人工智慧的服務，例如Akash Network，由8 到32 個GPU 組成。

Io.net 的平台允許客戶挑選他們想要使用的GPU 的數量和位置以及安全設置，從而使企業和機器學習工程師能夠更輕鬆地獲得他們所需的運算能力。

該公司使用Solana 區塊鏈技術來管理其網路內的微交易，以便向GPU 運算提供者付款。Solana 的技術可以促進大量小額交易，而傳統區塊鏈可能無法有效處理這些交易，因為處理時間較慢/費用較高。這使得Solana 成為Io.net 基礎設施的關鍵組成部分，使其能夠透過強大的支付系統運行GPU 運算能力的去中心化網路。

RTX 4090 零售價格，過去一個月上漲10%

Nvidia RTX 4090目前是最佳顯示卡中速度最快的GPU，在我們的GPU 基準測試層級中處於桿位。它從來就不是一款價格實惠的卡，建議零售價為1,599 美元，但最近的趨勢是價格更高。在美國，我們看到價格最低的卡片在過去一個月的成本上漲了10%，並且查看亞馬遜上的特定型號，其中一些價格上漲得更多。有多種因素可能在起作用。

首先，或許也是最重要的一點，從11 月17 日開始，RTX 4090 將受到中國出口限制。這要歸功於其原始運算能力，但也可能是因為它有點太像資料中心Nvidia L40 和L40S——它們使用相同的資料中心AD102晶片為4090。但限制這些GPU出口到中國也意味著在中國組裝顯示卡也被禁止。大多數顯示卡公司出於成本原因在中國進行顯示卡組裝，因此華碩、技嘉、微星、PNY 等都將不得不將4090 卡的生產轉移到其他地方，而以中國為中心的品牌可能不得不完全停止生產。

查看CamelCamelCamel 上的一些客製化RTX 4090 卡，可以深入了解最近幾個月的進度。華碩RTX 4090 TUF OC觸底價為1,699 美元，但現在售價為1,819 美元——亞馬遜上該卡的最高價格。同樣，華碩4090 ROG Strix OC在5 月觸及1,885 美元的低點，但在10 月飆升至2,173 美元，目前價格為2,640 美元（因為它基本上缺貨）。

我們可以嘗試看看其他4090 型號，但還有另一個令人不安的趨勢：大多數4090 卡開始缺貨。是因為需求增加了嗎？這是可能的，但可能性不大。更有可能的是，供應已經枯竭，要么是因為製造成本太高，要么是因為其他產品正在醞釀中。

這就引出了影響價格和可用性的第三個潛在因素：傳聞已久的RTX 4090 Ti。在過去一年的大部分時間裡，我們一直聽到有關4090 Ti（有時也稱為新Titan RTX）的所謂「洩漏」消息。當然，Nvidia 在創建RTX 4090 時為更高效能的AD102 元件留出了空間。但考慮到4090 的16 針連接器故障及其已經有些令人厭惡的450W TGP 額定值，推出了600W 或更高的RTX 4090 Ti TGP 似乎會帶來更多問題。

儘管如此，最新的Nvidia RTX 4070 Ti Super 傳聞也提到了RTX 4070 Super、RTX 4080 Super 和RTX 4090 Ti。這可能會發生，也可能不會發生，但如果4090 Ti 將在未來幾個月內推出（1 月的CES 2024 似乎確實有可能），顯示卡製造商幾乎肯定會停止普通4090 卡的生產。

這是因為4090 目前是光環產品，價格也與之相符。那些想要盡可能快的GPU 的人可能會被吸引去購買4090 而不是4080，但出於同樣的原因，如果存在4090 Ti，他們為什麼會選擇去年推出的倒數第二個GPU？換句話說，如果Nvidia 推出4090 Ti，它很可能會停產4090，或至少減少該零件的產量。

還有另一個憤世嫉俗的因素也可能在起作用。理論上，黑色星期五GPU 銷售即將到來。雖然我們通常不會看到很多顯示卡促銷活動，但我們經常在促銷開始前看到價格呈現上漲趨勢。今年稍早售價為600 美元的GPU 可能會在一個月左右的時間內突然升至700 美元，然後再次以600 美元的價格「上市」。“節省14%！”

我們無法確定上述每個因素如何影響RTX 4090 的定價方程，但我們確實知道4090 的價格在過去兩個月裡一直在攀升。理想情況下，我們將在不久的將來獲得一款新的RTX 4090 Ti，建議零售價與4090 相同，均為1,599 美元。不幸的是，更有可能的是，這樣的卡——如果它存在並且很快就會推出——將使建議零售價提高一個檔次。無論如何，我們將繼續追蹤價格，等待事情的最終結果。（半導體產業觀察）

https://www.hpcwire.com/2023/11/07/nvidia-h100-gpu-capacity-increasing-usage-prices-could-get-cheaper/

https://www.tomshardware.com/tech-industry/artificial-intelligence/107000-repurposed-crytpomining-gpus-up-for-rent-for-ai-workloads

https://www.tomshardware.com/pc-components/gpus/yikes-rtx-4090-retail-prices-increased-10-percent-in-the-past-month

今年夏天，英偉達（輝達）創辦人黃仁勳特別騰出時間，拜訪了一個名叫戰略與國際研究中心（CSIS）的智庫。在美國，智庫的意見能在很大程度上左右華盛頓的政策走向，深處科技戰前線的黃仁勳自然深知這一點。

黃仁勳上來就是一頓彩虹屁，並明確表達了捐贈的意願。隨後他話鋒一轉，表示有一位小同志嚴重拖累了智庫隊伍的整體水平，建議清除出去。

這位小同志不是別人，正是CSIS資深研究中心主任Gregory C. Allen，也是美國晶片出口管制政策的堅定鼓吹者。

面對美國的打壓，英偉達似乎比中國公司還要著急。過去數月，黃仁勳一直在盡力阻止制裁落地。

除去給智庫施壓，黃仁勳也當面警告了華盛頓決策層，認為制裁會造成嚴重代價。同時，他也不忘敦促美國半導體產業協會發表譴責聲明，強調進一步限制將損害產業的競爭力[2]。

今年7月，黃仁勳還拉上高通和英特爾去了華盛頓，目的也是說服美國政府放鬆對華限制。

然而，美國仍在10月17日更新了晶片出口管制，中國特供版晶片H800和A800也被列入禁售範圍。更令人驚訝的是，用於遊戲的消費級顯示卡RTX 4090也進了名單。

這對英偉達來說無疑是致命一擊，長期以來，中國大陸市場一直佔據其20%以上的收入。10月17日出口管制發布當天，英偉達股價下跌近5%，AMD和英特爾也跟著跌了1%。

那麼，英偉達是否真的無法取代？中國市場之於英偉達又意味著什麼？

簡單來說，美國政府在新的出口管制政策中增加了多個新指標，不僅把特供產品H800和A800牢牢卡死，還順便誤傷了消費級顯示卡RTX4090，搞得國內黃牛趁機漲了一波價。

為什麼說是「誤傷」？雖然RTX4090和H100都是GPU，但兩者的設計想法截然不同。

例如，RTX4090的頻率強於H100，因為更高的頻率能夠提供更強的圖形渲染能力。而H100的強項則是理論算力、顯存大小和顯存頻寬，這是因為AI推理和訓練都非常考驗資料的吞吐效率，這也是為什麼H100需要昂貴的HBM3記憶體。

至於玩遊戲，H100甚至都不支援主流遊戲的圖形介面。這也符合英偉達官方的「消費性」和「計算類」的歸類。

在一些討論中，RTX 4090由於更低的價格、不差的算力、更低的功耗，一度被認為同樣可以用於高效能運算。

客觀地說，鐵了心也能用。但一般而言，RTX 4090由於顯示記憶體和頻寬的限制，最多只能用作推理晶片。

AI晶片根據部署位置區分，大致可分為雲端晶片和終端晶片。雲端晶片用於訓練模型，俗稱訓練晶片；終端晶片用於終端設備，根據訓練好的模型對即時資料執行推理任務，俗稱推理晶片。

職責不同，導致對訓練晶片和推理晶片的性能要求也有很大差異：訓練晶片需要透過海量資料訓練可靠的模型，因此對資料傳輸速率、算力等指標有相當極端的要求。這也是為什麼H100不惜用上昂貴的HBM記憶體和CoWoS封裝，都是為了資料吞吐效率。

「特供版」的H800和A100，閹割的也是記憶體頻寬，算力其實沒有改變。

推理晶片一般處理即時任務，對於低延遲的要求更高，而且由於部署在終端，還要考慮功耗、大小、成本等問題。因此，用RTX4090這類消費級顯示卡強行訓練，過低的頻寬會帶來「記憶體牆」的問題。

無論是Google的TPU、還是特斯拉的FSD晶片，大部分應用場景都是推理。大部分國產AI晶片，也都是走推理晶片的路子。

而在訓練晶片這個場景下，英偉達的確是目前最好的選擇。

從絕對的算力來講，H100並不是巔峰。但在AI訓練這件事上，一口氣買幾百塊顯示卡的科技公司更在意的是另一個指標：單位成本的算力。

這也是為什麼大家寧願加價搶H100，也不願意買「青春版H100」－A100：以H100 SXM版本、A100 80GB SXM版本8月的售價（24000美元、15000美元）計算，每單位算力的成本分別為12.13美元、24.04美元，H100 SXM優勢明顯。

另外，資料中心建置完成後，還需要考慮電力、維運、故障、後期支援等多方面成本。種種因素疊加，大家還是老實地拿起了號碼牌，加入了漫長的H100等待序列中。

例如特斯拉，前腳宣布給自研的Dojo超級電腦投10億美元，後腳就透露要購買10000張H100用於驅動AI負載。

簡言之，在推理場景下，英偉達尚有替代方案；但在訓練晶片裡，英偉達是事實上的唯一方案。

原因在於，英偉達真正的護城河，是軟體。

今年10月10日，AMD宣布打算收購一家名為Nod.ai的AI開源軟體新創公司，以補足其軟體短板。

雖然貴為GPU產業的世界第二，但長期以來AMD的市佔率只能和英偉達二八開，在以AI為代表的高效能運算市場，存在感就幾乎為0。

事實上，AMD的AI晶片理論參數並不差，與H100對標的MI250X，雖然在FP32/FP64精度下的算力略遜於H100，但考慮到10000美元的售價，MI250X的「單位成本算力「其實更高，理論上可以成為比H100更好的選擇。

但實際上，不管是大公司還是新創公司，大家還是比較喜歡H100。原因就在軟體，也就是大名鼎鼎的CUDA。

眾所周知，GPU最初的目的是為遊戲和影片進行圖像渲染。黃仁勳幾乎是所有奧斯卡「最佳視覺效果」提名電影背後的男人。2007年，英偉達也曾獲得一個分量十足的獎項：艾美獎，以表彰其對娛樂產業的重大貢獻。

首先發現GPU被大材小用的是華爾街菁英，在渲染影像時所用到的平行運算能力，正符合金融場景裡高頻交易的需求。

不過，在用GPU跑交易之前，得先編寫大量的底層語言程式碼，這顯然勸退了一大批交易員。

為了降低GPU的編程門檻，David Kirk說服黃仁勳在2006年推出CUDA，CUDA的全名為Compute Unified Device Architecture，即計算統一設備架構，其作用也直白地寫在名字裡了：為GPU編程提供統一架構，使其滿足不同應用場景下的算力需求。

伴隨CUDA推出的是一本程式設計指南，裡面詳述了實現效能的具體方法，並且隨著產品的升級迭代不斷更新，至今已更新到12.3版。

這樣的說明書在今天看來是基礎必備，在當時與競爭對手的差距也不過兩年，但先發者的一步領先卻足以定義產業。

CUDA推出後，英偉達迅速打開了新業務的大門，在航空航太、天文學、氣象學領域都有GPU的身影。

2009年，蘋果的開發團隊推出OpenCL，支持者包括AMD和英特爾，希望能以通用性在CUDA身上分一杯羹。但作為追趕者，OpenCL平台上的開發者自然更少，容易陷入惡性循環。

而CUDA則在「使用人數越多，CUDA平台就越好用，新開發者就越傾向於選擇CUDA」的良性循環中，加強了生態優勢。

在深度學習爆發後，許多學習框架要么是在CUDA發布之後才會支持OpenCL，要么壓根不支持OpenCL，使得OpenCL始終無法觸及更高附加價值的業務[5 ]。

2016年，AMD自家軟體ROCm姍姍來遲，在投入不如英偉達的情況下，服務更新上落後CUDA，因此也難與CUDA抗衡。

晶片的架構和製程可以靠一兩代產品迅速拉近差距，但一個成熟的生態系統卻很難被破壞。CUDA生態遍佈各行各業，從企業蔓延到教育系統。吳恩達曾評價：CUDA出現之前，全球能用GPU編程的可能不超過100人。而目前全球的CUDA開發者已經達到數百萬。

從某種程度上來說，CUDA已成為業界的事實標準。它的另一個特點是：只能和英偉達的硬體適配。

因此，任何開發者想要脫離CUDA生態，都得考慮標新立異的成本與風險。

不過對英偉達來說，繁榮的CUDA生態既是令競爭對手望而生畏的高山，卻也是自己的軟肋所在。

黃仁勳之所以如此著急，道理也簡單：如果鐵了心換掉英偉達，也不是不可以。

英偉達固然是人工智慧得以走上時代舞台中央最大的功臣之一，但在當下，它卻有兩個不容忽視的問題：

一是成本過高。以「地表最強GPU」H100為例，首發價為3.3萬美金，如今二手市場價格更一度上漲至5萬美金左右。

科技公司如果要搭建擁有一萬塊H100的資料中心，即便不考慮其他成本和後續開支，光GPU採購費就需要數億美金——即便對《財星》世界500強排行榜上的科技公司來說，這也不是筆小錢，更遑論新創公司。

二是通用晶片難以實現差異化。堆疊算力不是簡單往車上加汽油，需要考慮軟體適配性、自身業務需求等一系列問題。更何況，如果只用英偉達的GPU，代表只有當英偉達出新產品，自家產品才能跟著升級，徹底將戰略主動權交給了黃總。

這就是英偉達面臨的一個尷尬情境：自己的客戶都是自己的對手。

早在2014年，Google已開始了自研晶片的計劃，其最新成果就是TPUv5系列。對參數量小於200B的大模型來說，TPUv5在推理時更具性價比，相較於英偉達GPU有著肉眼可見的成本優勢[4]。

而在重要的中國市場，美國的出口管制其實是在給黃總幫倒忙。

如前文所述，英偉達的核心壁壘在CUDA組成的繁榮生態——它就像一個無數開發者組成的“圈子”，後來者想要進入AI產業，就得融入這個圈子。如果把一部分開發者攔在圈子外面，那麼他們最有可能做什麼：組成一個自己的圈子。

事實上，英偉達非常清楚這一點，其法律顧問Tim Teter就曾這樣警告華盛頓：你冒的風險是刺激了一個由競爭對手主導的生態系統的發展，這可能會對美國在半導體、先進技術和人工智能領域的領導地位產生非常負面的影響。

如果「被踢出圈子」的機率只有1%，那大家只會把它當作一個黑天鵝事件；但一旦這個機率上升到哪怕只有10%，就一定會有人行動起來。這也是為什麼英偉達對美國的出口管制如此警覺——中國科技公司會鐵下心來掀桌子，開始搭建自己的生態。

英偉達並非是唯一有著類似境遇的公司，英特爾與高通也一同參與了施壓美國政府的行動當中。它們的部分競爭力同樣來自生態的構建，英偉達的境遇讓這兩家晶片巨頭深感唇亡齒寒。

要知道，上一輪針對英偉達的出口管制發布後，英特爾專門把Gaudi 2芯片的發布會放在北京開，一口一個“幫助構建中國人工智能的未來”“攜手中國產業生態”，趁機挖黃總牆角的心思昭然若揭。

結果新版出口管制出爐，AMD的MI250X、MI300，英特爾的Gaudi 2、Gaudi 3和黃總一起上了名單。這也難怪有小道消息說，英特爾高層和美國高級官員交涉時[2]，一度急得指著對方鼻子問“到底懂不懂半導體？”

儘管相較於美國，國內的晶片產業整體的差距並不小，但長期的封鎖，一定會加速中國晶片產業的發展。一旦這個過程開始，也許就不可逆了。

這就是英偉達害怕的、美國眾多晶片公司所擔心的事情，正如黃仁勳所說[1]：There is no other China，there is only one China。（遠川科技評論）

彙整鉅亨號中所有使用「RTX 4090」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

RTX 4090，價格飆升

輝達H100，沒那麼缺貨了！RTX 4090 ，大漲！

誰能代替輝達？